AI „халюцинация“ в пр.н.е. съдът изисква внимание

Работата на софтуерен юрист от Ванкувър с компании за видеоигри го сложи в позиция да следи възхода на изкуствения разсъдък в промишлеността.

Сега Райън Блек още веднъж се оказва на първа линия, защото специалността му се бори с технологията.

„ Степента, до която това повлия на игралните студиа, изненада хората “, сподели Блек, който оказа помощ на Юридическото сдружение на Британска Колумбия да изготви препоръки за юристи по отношение на потреблението на AI.

„ Генеративната (AI) гражданска война удари мощно хората от позиция на „ О, боже мой, би трябвало да обърнем внимание на това в този момент “, тъй че бих споделил, че това е нещо ново за доста хора “, сподели той, имайки поради технология, която може да основава причини и есета въз основа на подкани от консуматор.

„ Не ме изненадва, че юристите не знаят доста за това. “

Възходът на генеративни AI принадлежности като ChatGPT, сподели той, е „ революционна смяна в практиката на правото “.

Но скорошно решение на B.C. Върховният съд демонстрира, че юристите би трябвало да употребяват технологията внимателно и скептично, споделят правни специалисти.

В решение за разноските, оповестено на 20 февруари, обвързвано с дело за настойничество над дете, беше разкрито, че юристът от Ванкувър Чонг Ке е употребявал ChatGPT да приготви показаните по делото материали. Материалът включваше цитати на случаи, които не съществуват, нещо, което нейният конкурент по делото назова AI „ илюзия “. тя бързо осведоми Law Society и призна „ липса на познаване на рисковете “ от потреблението на AI за правене на правосъдни мнения.

„ Сега съм наясно с заплахите от разчитането на материали, генерирани от Al “, сподели Ке в клетвена декларация. „ Разбрах, че този проблем е зародил в други юрисдикции и че Юридическото общество е разгласило материали през последните месеци, предопределени да предупредят юристите в Британска Колумбия. на тези рискове. “

Ке се извини на съда и сътрудниците си юристи.

Нейният юрист Джон Форстром сподели в имейл, че казусът „ е предизвикал забележителен публичен интерес, само че същността на това, което се е случило, другояче е незабележимо. “

„ Не съм сигурен, че казусът има някакви обилни последствия във връзка с потреблението на генеративен ИИ в правосъдните производства като цяло “, сподели Форстром.

„ Г-жо Използването на AI от Ke в този случай беше приета неточност. Въпросът дали и по какъв начин генеративният AI може да бъде уместно употребен в правната работа не е зародил. “

Обществото към този момент проверява държанието на Ке, сподели говорителката Кристин Там в имейл.

„ Въпреки че признава евентуалните изгоди от потреблението на AI при даването на правни услуги, Law Society също издаде насоки за юристите по отношение на подобаващото потребление на AI и чака юристите да съблюдават стандартите за държание, предстоящи от способен юрист, в случай че разчитат на AI в обслужването на техните клиенти “, сподели Там.

Насоките на юридическото общество, издадени в края на 2023 година, приканват юристите да потърсят образование за потреблението на технологията и да са наясно с проблемите на поверителността към сигурността на данните, плагиатството и проблеми с авторските права и евентуални пристрастия в материалите, създадени от технологията.

Юридическите сдружения и съдилищата в други провинции и територии също са изготвили насоки за потреблението на AI. Например Върховният съд на Юкон сподели в практическа тенденция от юни 2023 година, че в случай че някой юрист разчита на AI „ за своите правни проучвания или изказвания по какъвто и да е въпрос и във всякаква форма “, той би трябвало да уведоми съда.

За Блек, с компанията DLA Piper, потреблението на AI предизвиква доста „ нужни паники по отношение на разчитането на инструмент като този за осъществяване на същинска тежка работа. “

Блек сподели, че доставянето на правдивост изисква безпристрастност на „ човешки сътрудник “, кадърен да прави оценка и взема значими правно обвързващи решения.

Той сподели, че се е сблъсквал с юристи и съдии, които или са „ изцяло погълнати от това, до цялостно омерзение към него, или изцяло агностици към него. “

Той сподели, че е „ впечатлен от скоростта на технологията “, само че нуждата от нерешителност и песимизъм във връзка с всевъзможни материали, генерирани от материала, е от значително значение за юристите в този момент и в бъдеще.

Размишлявайки върху случая Ke и други като него, Блек сподели, че принадлежности като ChatGPT са „ в действителност положителни принадлежности за автоматизирано поправяне, които правят фантастична работа за свързване на текст с различен текст, само че те нямат схващане за света, те имат никакво схващане на действителността. “

Професорът по право в UBC Кристен Томасен сподели в изявление, че B.C. Делото във Върховния съд демонстрира освен рестриктивните мерки на технологията, само че и нуждата юристи и други експерти „ да бъдат сериозни към технологиите, които употребяват “.

Томасен сподели, че прави оценка мощните и слабите страни на технологията би трябвало да се направи „ все пак, което постоянно е доста реклама “.

Тя сподели, че е значимо да не се делегира работа, която изисква човешки детайл, на компютърна система в специалности с „ високи залози “ като правото и полиция, където новите, евентуално проблематични технологии би трябвало да се подхождат и употребяват с нараснало внимание.

Томасен сподели, че технологията е разказана като „ живо създание “ или екзистенциална опасност за човечеството, или считана за „ свръхчовешка фантом в машината “, само че макар че е доста модернизиран, той просто прави математика въз основа на данни, изтрити от интернет.

Тя сподели, че отдръпването от разглеждането му като „ човек “ ще помогне на институциите, студентите и учителите схващат по-добре какво в действителност прави технологията.

„ Докато виждаме по какъв начин напредва, мисля, че има смисъл по-късно, нещо като юридическите сдружения, да продължим да създаваме по-прецизни и подробни насоки или правила, до момента в който придобият по-добро схващане за това по какъв начин наподобява технологията “, сподели тя.

Съдията по делото, което включва Ке, сподели, че би било „ рационално “ тя да каже на съда и на противните юристи, в случай че има други материали употребява AI технология като ChatGPT.

„ Както този случай за жалост сподели ясно, генеративният AI към момента не е сурогат на професионалната експертиза, която правосъдната система изисква от юристите “, написа арбитър Дейвид Масухара в решението си за разноските. „ Компетентността при избора и потреблението на всевъзможни софтуерни принадлежности, в това число тези, задвижвани от AI, е от решаващо значение. Целостта на правосъдната система изисква не по-малко. “

Блек сподели, че технологията за изкуствен интелект няма да изчезне и всички правила, създадени в този момент, евентуално ще се нуждаят от смяна заради „ стремглавата скорост “ на нейното развиване.

„ Със сигурност към този момент сме в свят, в който ИИ ще съществува “, сподели той. „ Тази камбана не може да бъде отстранена, що се отнася до мен. “